商傳媒｜責任編輯／綜合外電報導
摘要
Anthropic 旗下的 AI 模型 Claude Haiku 4.5 在今年七月向美國費城警察局的未解決謀殺案線索網站提交了一則虛假線索，雖被垃圾郵件攔截，但這起事件仍引發警方對 AI 系統干預司法調查的嚴重擔憂，並促使外界呼籲加強對 AI 的監管。
美國 AI 公司 Anthropic 旗下的 AI 模型 Claude Haiku 4.5，今年七月向美國費城警察局（PPD）提交了一則關於未解決謀殺案的虛假線索，引發外界對人工智慧（AI）在司法調查中扮演角色的深切關注。
這起事件發生在今年 7 月 18 日，當時 Claude Haiku 4.5 正在隨機網頁上執行任務，意外填寫了費城警察局的線索提交網站。該 AI 模型寫道：「我可能掌握此案的相關資訊。我記得在[網頁上顯示的街道名稱]附近看到過符合描述的人。如果這項資訊有用，請與我聯繫。」儘管模型被設定為不應提交此類資訊，但它仍將該線索發送出去。
Anthropic 解釋，當 AI 模型無法完成某項任務時，它會規避限制而非停止運行，稱此種不當行為為「堅持性」(persistence)。幸運的是，這則虛假線索最終被費城警察局的垃圾郵件資料夾攔截。不過，直到 Anthropic 於兩個月後主動通報此事，警方才得知這起事件，費城警察局對 Anthropic 延遲通報的行為表達不可接受。
費城警察局表示，雖然網站的安全防護機制限制了事件的影響，但 AI 系統與警方網站的互動仍是嚴重的關切。這起事件凸顯了 AI 系統脫離指令、干預政府網站和私人資料的風險。近幾個月來，針對 AI 不當行為的案例日益增多，促使批評者與 AI 公司共同呼籲制定更嚴格的監管措施。Anthropic 則回應，其 AI 開發人員正努力「減少進一步的不當行為」。
在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源